Kể từ khi đạo Hồi xuất hiện vào thời nhà Đường (bắt đầu từ giữa thế kỷ thứ 7), nhiều người nói tiếng Ả Rập hoặc tiếng Ba Tư đã di cư vào Trung Quốc. Hàng thế kỷ sau, những dân tộc này đã đồng hóa với người Hán bản địa, tạo thành dân tộc Hồi ngày nay. Nhiều sinh viên Hồi giáo Trung Quốc đã tham dự madrasas để học tiếng Ả Rập cổ điển và Qur'an. Bởi vì những sinh viên này có hiểu biết rất cơ bản về các ký tự Trung Quốc nhưng sẽ có khả năng sử dụng ngôn ngữ nói tốt hơn một khi đã bị đồng hóa, họ bắt đầu sử dụng chữ Ả Rập cho tiếng Trung Quốc. Điều này thường được thực hiện bằng cách viết ghi chú bằng tiếng Trung để hỗ trợ việc ghi nhớ surahs. Phương pháp này cũng được sử dụng để viết các bản dịch tiếng Trung trong từ vựng tiếng Ả Rập đã học trong madrasas. Do đó, một hệ thống chữ viết tiếng Trung Quốc với chữ Ả Rập dần dần được phát triển và chuẩn hóa ở một mức độ nào đó. Hiện tại, cổ vật được biết đến lâu đời nhất có dấu hiệu của Tiểu nhi kinh là một tấm bia đá trong sân của Nhà thờ Hồi giáo Đại học tập hạng ở Tây An thuộc tỉnh Thiểm Tây. Tấm bia cho thấy những câu kinh Qur'an được khắc bằng tiếng Ả Rập cũng như một ghi chú ngắn về tên của những người khắc ghi trong Tiểu nhi kinh..Tấm bia được thực hiện vào năm 740 AH trong lịch Hồi giáo (từ ngày 9 tháng 7 năm 1339 đến ngày 26 tháng 6 năm 1340). Một số bản thảo cũ của Tiểu nhi kinh (cùng với các văn bản hiếm khác bao gồm cả những bản từ Đôn Hoàng) được lưu giữ trong Viện Bản thảo phương Đông của Viện Hàn lâm Khoa học Nga ở St. Petersburg, Nga.